Reiner sinh ở Bronx, New York, con trai của Bessie (nhũ danh Mathias) và cha là Irving Reiner, là một thợ làm đồng hồ.[2] Cha mẹ ông là người Do Thái nhập cư, cha của ông là người từ România còn mẹ ông từ Áo.[3] Khi ông được mười sáu tuổi, anh trai của ông Charlie đọc trong New York Daily News về một hội thảo kịch tự do được tổ chức bởi Works Progress Administration và nói cho cậu biết. Ông đã thợ máy sửa chữa máy may. Ông tin tưởng tín dụng Charlie thay đổi kế hoạch sự nghiệp của mình.[4]